🚀 实战 · 全栈 · 集群优化
NVSHMEM 性能分析
与集群优化实战
📘 30 章 · 从入门到 E 级计算
⚡ 友好色系 · 紧凑卡片目录
01
NVSHMEM 全景概览
从 GPU 集群到全局地址空间，NVSHMEM 的定位与价值。
02
NVSHMEM 编程模型
PE、对称内存、Put/Get 操作，与 MPI 的对比。
03
环境搭建与验证
NVSHMEM 库安装、编译选项、运行第一个 Hello World 程序。
04
对称内存管理
对称内存分配、初始化、数据放置策略。
05
点对点通信
shmem_putmem/shmem_getmem 详解，带宽与延迟测试。
06
集合操作
shmem_barrier、shmem_broadcast、shmem_reduce 的实现与性能。
07
同步机制
shmem_quiet、shmem_fence、shmem_wait 的使用场景与陷阱。
08
锁与原子操作
shmem_lock、shmem_atomic_*，实现细粒度同步。
09
多 GPU 拓扑感知
NVLink、NVSwitch 拓扑对 NVSHMEM 通信的影响。
10
性能分析工具入门
Nsight Systems 与 Nsight Compute 的基本使用。
11
NVSHMEM Profiling API
使用 NVSHMEM 内置性能计数器。
12
通信热点分析
定位 Put/Get 瓶颈，区分带宽受限与延迟受限。
13
集合操作性能调优
调整 Barrier/Broadcast 的算法与数据分块。
14
流水线与异步操作
利用 shmemx_putmem_nbi 实现计算通信重叠。
15
内存层级优化
对称内存与 HBM 的亲和性，NUMA 绑定策略。
16
多流并发
NVSHMEM 与 CUDA Stream 的协同，多 PE 并行通信。
17
大规模集群部署
Slurm 作业脚本编写，多节点 NVSHMEM 启动。
18
网络互连优化
InfiniBand 与 NVSHMEM 的 RDMA 集成，GDR 配置。
19
故障排查
常见运行时错误、内存泄漏检测、死锁分析。
20
基准测试
使用 OSU NVSHMEM Benchmarks 进行性能评估。
21
案例实战：Stencil 计算
Stencil 计算中的 NVSHMEM 通信优化。
22
案例实战：分布式矩阵乘法
分布式矩阵乘法的 NVSHMEM 实现。
23
案例实战：图计算原子操作
图计算中的 NVSHMEM 原子操作优化。
24
案例实战：深度学习 AllReduce
深度学习数据并行中的 AllReduce 优化。
25
混合编程：NVSHMEM+MPI+CUDA
NVSHMEM + MPI + CUDA 的三层编程模型。
26
高级主题：NVSHMEM vs NCCL
NVSHMEM 与 NCCL 的对比与选型。
27
高级主题：共享内存与 GPU Direct Async
NVSHMEM 的共享内存与 GPU Direct Async。
28
高级主题：容错与 Checkpoint
NVSHMEM 的容错机制与 Checkpoint/Restart。
29
性能建模：LogP 模型分析
基于 LogP 模型的 NVSHMEM 通信成本分析。
30
课程总结与展望
NVSHMEM 在 E 级计算中的未来趋势。